Родился в Курске в семье купца, разорившегося вскоре после рождения сына.
Учился Голиков грамоте у приходского дьячка. Служил «мальчиком» и приказчиком у своего двоюродного брата И. Л. Голикова, а затем в течение 10 лет отрабатывал долг отца у московского купца И. Р. Журавлёва.
По торговым делам неоднократно посещал Оренбург, где близко познакомился с академиком П. И. Рычковым и губернатором И. И. Неплюевым.
В 1761 г., получив от Журавлёвых «пристойное вознаграждение», заводит собственное дело в Петербурге.
В 1762 г. избирается депутатом от Белгородской провинции в Уложенную комиссию (работала до 1768), участвует в составлении нового Уложения «О состоянии подданных вообще».
Постоянно поддерживает связь с переехавшим в столицу И. И. Неплюевым. Знаком также с адмиралами А. И. Нагаевым и С. И. Мордвиновым, с бывшим денщиком Петра I, З. Д. Мишуковым, с А. П. Ганнибалом.
Ещё в юности на него произвело огромное впечатление описание Полтавской битвы. Переезд Голикова в Петербург еще более укрепил его интерес к Петровской эпохе, где он «жадничал все схватить, все узнать».
Он смог разыскать редчайшие документы в разных архивах страны, собрал «до полуторы тысячи русских печатных и рукописных книг, в коих разсыпано было, так сказать, премножество дел Петровых», в частности, купил рукописную летопись о жизни императора Петра I и «Рассуждение о Северной войне» П. Шафирова.
С 1778 г. вместе с М. С. Голиковым входит в компанию шести купцов, взявших в Сенате винный откуп на Петербург и Москву. Они обязались «содержать в столицах и во всех подсудственных к ним местах (кроме Ладоги) ... винную, водочную, пивную и медовую продажи ... также сбор с казенных и наемных питейных домов с 1 января 1779 по 1 января 1783 из платежа в казну по 2 миллиона 320 тысяч рублей».
В 1781 г. на рижской таможне арестована крупная партия французской водки, провозимая Голиковыми контрабандой. На следствии Голиков по уговору с компаньонами взял вину на себя. Провёл год в тюрьме, по суду приговорён к лишению чести, конфискации имущества и ссылке в Сибирь.
7 августа 1782 г. по случаю открытия в Санкт-Петербурге памятника Петру I, по манифесту, Голикова помиловали и освободили из тюрьмы в день открытия памятника.
После освобождения он даёт обет написать историю деяний Петра I, и все последующие годы жил в с. Анашкино Звенигородского уезда Московской губернии, в имении своего зятя В. Бланкенагеля, где работал над своим историческим трудом.
В 1788–1789 гг. вышли в свет его «Деяния Петра Великого» в 12 томах.
В 1790-1797 гг. появились еще 18 томов «Дополнений» к ним.
Итого, вместе с «Дополнениями» «Деяния Петра» составили 30 томов.
В предисловии к сочинению Голиков говорит о себе, что он «... совсем не историк, но только собиратель воедино дел Петровых».
Для своего времени «Деяния Петра Великого» имели громадное значение как первый свод исторических фактов и попытка их систематизации. На этом сочинении воспитывалось не одно поколение русских людей, и тот ореол необычайного, которым была окружена деятельность Петра I, создан в значительной степени работой Голикова.
Труды его до середины XIX в. являлись основным источником изучения России конца XVII — начала XVIII вв. и многогранной деятельности Петра I.
В 1834 г. А. С. Пушкин, приступая к работе над историей Петровского времени, законспектировал «Деяния» Голикова с краткими примечаниями и комментариями.
Две восторженные статьи о трудах Голикова написал в 1841 г. литературный критик В. Г. Белинский.
Пользовался «Деяниями» и русский писатель А. Н. Толстой, работая над романом «Петр I».
Труды Голикова особенно ценны и тем, что он увековечил существование собранных материалов, т. к. личные архивы многих сподвижников Петра I утеряны или погибли.
В 1800 г. по Указу Императора Павла I Голиков получил чин надворного советника и потомственное дворянство.
Похоронен на кладбище с. Каринское Звенигородского уезда Московской губернии.
Соч.: Деяния Петра Великого, мудрого преобразователя России, собранные из достоверных источников и расположенные по годам (1788 – 1789; 2-е изд. Т. 1 – 15. М., 1837 – 1843) с «Дополнениями к деяниям Петра Великого» (Т. 1 – 18. М., 1790 – 1797).
Ист.:
Мезин С. А. Русский историк И. И. Голиков. — Саратов, 1991;
История и современность Курского края. Региональное учебное пособие. Под общ ред. проф. Б. Н. Королёва. Курск. 1998. С. 138 — 142;
Зорин А. В., Карпачев М. Д., Могильников В. А., Филиппова М. А., Шумков А.А. Курские купцы Голиковы. СПб., 2003.